Yên Sở là tên ghép của hai làng Yên Duyên và Sở Thượng.

Trước đây là một xã thuộc huyện Thanh Trì.

Đến năm 2004 cùng với 8 xã khác của huyện Thanh Trì và 5 phường thuộc quận Hai Bà Trưng được Chính phủ tách về thành lập quận Hoàng Mai.

Theo Thiên Nam dư hạ tập thì năm Hồng Đức thứ 14 (1483) vua Lê Thánh Tông cho lập các Sở đồn điền, Sở tầm tang, Sở điển mục. Đây là các điểm đồn trú với quân lính làm nòng cốt có nhiệm vụ sản xuất nông nghiệp và khai hóa đất đai các bãi bồi ven sông trong thời bình, tham gia chiến đấu khi có chiến tranh. Sở Yên Duyên là một trong 43 Sở đồn điền được thành lập khi đó thuộc tổng Thanh Trì, huyện Thanh Trì, phủ Thường Tín, xứ Sơn Nam.

Năm 1495, một nhóm người đã di cư từ Sở Thượng xuống địa phận Ninh Sở, huyện Thường Tín hiện nay lập làng khai hoang. Đến năm 1742 thì tách riêng ra thành lập làng Sở Hạ (để phân biệt với Sở Thượng).